Năm 1984, Cohn được chẩn đoán bị AIDS và cố gắng giữ bí mật tình trạng của mình trong khi điều trị bằng thuốc thử nghiệm.[14] Ông đã tham gia vào các thử nghiệm lâm sàng của AZT, một loại thuốc ban đầu được tổng hợp để điều trị ung thư nhưng sau đó đã phát triển thành tác nhân chống HIV đầu tiên cho bệnh nhân AIDS. Ông nhấn mạnh đến ngày hấp hối rằng căn bệnh của ông là ung thư gan.[15] Ông qua đời vào ngày 2 tháng 8 năm 1986, tại Bethesda, Maryland, vì những biến chứng do AIDS, ở tuổi 59.[7] Theo Roger Stone, "mục tiêu tuyệt đối của Cohn là hoàn toàn bị phá vỡ và khiến hàng triệu người đến với IRS. Ông đã thành công trong việc đó."[16] Ông được chôn cất tại nghĩa trang Union Field ở Queens, New York.[8][17][18]